性能监控

Laminar

Laminar是一款面向大型语言模型(LLM)的开源可观测性和分析平台,具备自动追踪LLM调用与数据库交互、事件驱动分析及数据标注等功能,同时支持高效的数据存储与可视化展示。其目标是提升LLM应用的透明度和效率,适用于开发调试、性能监控、用户体验优化及业务决策支持等多个场景。

scade.pro

scade.pro 是一款无代码AI集成平台,提供超过1500种AI模型和可视化工作流构建工具,支持用户通过拖放节点快速创建和部署AI应用。其功能包括模板驱动的开发、性能监控、多场景适配等,广泛应用于客户服务、内容创作、市场分析等多个领域。

Phidata

Phidata 是一个开源的 AI 智能体框架,支持开发者构建具备记忆、知识和推理能力的智能代理系统。它提供多代理协作、用户界面交互、性能监控优化等功能,并广泛应用于网络搜索、财务分析、数据科学和自动化任务等领域。

Midscene.js

Midscene.js 是一款基于 AI 的自动化 SDK,利用自然语言处理技术简化 UI 测试流程。它支持用户通过自然语言描述操作步骤,自动执行动作、查询数据、断言页面状态,并生成可视化报告。Midscene.js 可无缝集成到现有项目中,适用于自动化测试、数据抓取、性能监控等多种场景。

RAG Logger

RAG Logger 是一款专为检索增强生成(RAG)应用设计的开源日志记录工具,支持查询跟踪、检索结果记录、LLM 交互记录及性能监控等功能。其核心特性包括结构化 JSON 日志存储、每日日志组织、事件驱动架构和灵活配置选项。RAG Logger 能够帮助开发者有效监控和优化 RAG 管道的运行效率,广泛适用于搜索引擎优化、智能问答系统、内容推荐系统、NLP 研究及教育辅助工具等领域。

Autoblocks AI

Autoblocks AI 是一款面向 AI 团队的开发与测试平台,提供模块化开发、大规模场景模拟、自动缺陷检测与修复、性能评估及实时监控等功能。支持多场景测试与智能优化,提升 AI 代理的可靠性与稳定性,适用于医疗、法律、金融、客服等多个领域。

Awesome

一个用于实时监控和检测 Ollama 服务可用性和性能的系统。支持多语言,能够方便用户进行服务检测和性能监控。